Phúc Yên được thành lập ngày 31 tháng 10 năm 1905, là tỉnh lỵ tỉnh Phúc Yên. Trong kháng chiến chống Pháp, chuyển thành thị trấn rồi được tái lập thành thị xã ngày 1 tháng 2 năm 1955.

Ngày 26 tháng 6 năm 1976, một lần nữa Phúc Yên chuyển thành thị trấn thuộc huyện Yên Lãng, tỉnh Vĩnh Phú. Khi huyện Yên Lãng hợp nhất với huyện Bình Xuyên thành huyện Mê Linh thì thị trấn Phúc Yên trở thành huyện lỵ của huyện Mê Linh.

Từ năm 1978 đến năm 1991 thị trấn Phúc Yên cùng với huyện Mê Linh chuyển về Hà Nội. Sau đó thị trấn Phúc Yên lại trở về tỉnh Vĩnh Phú, rồi thuộc tỉnh Vĩnh Phúc (từ năm 1996).

Thị xã Phúc Yên được tái lập theo Nghị định số 153/NĐ-CP ngày 9 tháng 12 năm 2003 của Chính phủ trên cơ sở tách 2 thị trấn Phúc Yên, Xuân Hòa và 5 xã: Ngọc Thanh, Cao Minh, Nam Viêm, Phúc Thắng, Tiền Châu thuộc huyện Mê Linh.[1].

Khi mới thành lập, thị xã Phúc Yên có 5 phường: Hùng Vương, Phúc Thắng, Trưng Nhị, Trưng Trắc, Xuân Hòa và 4 xã: Cao Minh, Nam Viêm, Ngọc Thanh, Tiền Châu.

Ngày 4 tháng 4 năm 2008, chia phường Xuân Hòa thành 2 phường: Xuân Hòa và Đồng Xuân.[3]

Ngày 21 tháng 1 năm 2013, Bộ Xây dựng ra Quyết định số 93/QĐ-BXD công nhận thị xã Phúc Yên là đô thị loại III trực thuộc tỉnh Vĩnh Phúc.[4]

Ngày 7 tháng 2 năm 2018, Ủy ban Thường vụ Quốc hội thông qua Nghị quyết số 484/NQ-UBTVQH14. Theo đó, thành lập 2 phường Nam Viêm và Tiền Châu thuộc thị xã Phúc Yên và thành lập thành phố Phúc Yên thuộc tỉnh Vĩnh Phúc trên cơ sở toàn bộ diện tích và dân số của thị xã Phúc Yên[2].